查看原文
其他

人工智能大模型时代到来,光子计算或成下一个风口

有价值、有态度 AI商业评论 2022-12-23


人工智能正加速驶向大模型时代。

2020年6月,OpenAI发布GPT-3,具有1,750亿个参数的自然语言深度学习超大模型,是自AlphaGo之后人工智能领域最具突破性研究成果,能进行原始类比、生成配方、甚至完成基本代码编写。

仅半年后,2021年1月,这一记录被打破了。谷歌研究人员开发出一个新的语言模型Switch Transformer,包含超过 1.6 万亿个参数。

五个月后,本周,北京智源研究院发布了悟道2.0,达到1.75万亿参数,创下全球最大预训练模型纪录。

作为人工智能最具代表性企业,商汤科技也推出SenseCore商汤AI大装置,计算峰值速度将达到3740 Petaflops(1 petaflop等于每秒1千万亿次浮点运算),集大数据、大模型和超强算力三位一体,致力于如大科学装置粒子对撞机那般,“撞”出一个新的起点,实现跃迁式创新。

一个大模型时代滚滚而来。正如北京智源研究院理事长张宏江在刚刚落幕的第三届智源大会上所说:人工智能的大模型时代正在到来!超大数据+超大算力+超大模型,将如‘电网’一般,成为变革性产业基础建设设施,与驱动信息产业应用发展的核心动力。

那么,大模型时代又有怎样的创业风口与投资机会?



光芯片实现10000倍提速,数量级降低功耗

大模型时代,计算能力的需求呈指数增长。随着人工智能系统变得越来越复杂,需要更多的计算能力来满足他们的需求,而传统计算芯片很可能无法跟上。

在波士顿海港区的一个小实验室里,埋在一堆激光器、透镜、镜子和一团乱麻的电线中,是一个微小的芯片,它可能即将对传统电子芯片产生重大影响。

该实验室属于Lightelligence,这是一家正在开发一种全新的 AI 加速器芯片的初创公司。该公司的原型设备不是使用电子来执行机器学习所需的核心计算,而是使用光。


与传统电子芯片架构相比,Lightelligence 制造的光芯片延迟最多可提高 10,000 倍,并且功耗要低“几个数量级”

电子芯片在计算时需组合数十个,有时数百个逻辑门,需电子芯片晶体管在多个时钟周期内关闭和开启。每次逻辑门晶体管开关时,它都会产生热量和功耗。

Lightelligence研发的芯片并非如此。

在光学领域,算术计算是用物理方式完成的,而不需要多个时钟的逻辑门晶体管——更多的时钟意味着获得结果的时间更长。

Lightelligence联合创始人兼首席执行官沈亦晨博士说:“我们精确地控制了芯片内部光子如何相互作用,并让它来做数学计算。”


这种干扰过程产生的热量很少,沈亦晨的光学计算芯片的功耗比电子芯片低得多。

“当电子通过铜线时,它们会产生热量,”该公司的创始人兼产品副总裁 Paul Xie 说,“就像在长途光纤通信中一样,光在传播时不会产生热量,损耗也很小。所以光学计算的主要好处是它更节能。”

业界普遍认为,摩尔定律将在 2025 年左右终结,沈亦晨相信他的光学驱动解决方案已准备好应对未来的许多计算挑战。“我们正在改变计算的基本方式,我认为我们正处于历史上正确的时间点。光学将成为下一个计算平台,至少对于像人工智能这样的线性运算来说是这样。”

沈亦晨并不认为光学会取代整个电子计算行业。Lightelligence 旨在加速某些线性代数运算,以执行快速、节能的任务,例如人工智能神经网络中的任务


大部分人工智能计算发生在云端数据中心,例如亚马逊、微软的数据中心,数以万计的服务器,连续运行,每秒消耗价值数百万美元的电力。

而用 Lightelligence 服务器可替换一些传统服务器,这些服务器消耗的功率要少得多,成本却是后者的一小部分。

“我们的光学芯片将大大降低数据中心的成本,或者换句话说,可以大大提高这些数据中心对人工智能应用的计算能力” 沈亦晨说。  

再如自动驾驶汽车,依靠摄像头和人工智能计算来快速做出决定。但传统的数字电子芯片的“思考”速度不够快,无法以高速做出必要的决定。

更快的计算成像意味着更快的决策。“我们的芯片完成这些决策任务的时间是普通芯片的一小部分,这将使车内的人工智能系统能够做出更快、更精确的决策,从而实现更安全的驾驶”沈亦晨说。



Lightelligence创始团队全部来自MIT

跨学科顶尖人才集聚

Lightelligence的技术起源于 2017 年由沈亦晨在《自然光子学》杂志上发表的了一项研究,描述了一种使用光干涉执行神经网络工作负载的新方法。


Lightelligence 于几个月后成立,集聚了一支全部来自MIT的创始团队,目前有100 名技术专家,其中包括机器学习先驱、领先的光子研究人员和致力于革新计算技术的半导体行业资深人士。

沈亦晨在MIT物理系跟随Marin Soljajic和John Joannoupolos教授一起攻读博士学位,在那里他对光子学和人工智能的交叉产生了兴趣。“我意识到计算是现代人工智能的关键推动因素,需要更快的计算硬件来补充更快、更智能的 AI算法的增长”他说。

“像沈亦晨这样的学生,我在教授的职业生涯中也很少遇见,即使在麻省理工学院也是如此。沈亦晨是该领域将集成光学用于AI的真正有远见者和先驱”Soljacic说。


沈亦晨将光芯片技术发展的这个阶段比作晶体管取代真空管的时代。到 2021 年,沈亦晨预计 Lightelligence 将解决80-90%的技术挑战,使光学计算成为可行的商业产品。

目前,Lightelligence已经筹集了超过4000万美元的风险投资。

虽然光芯片赛道还处于早期,但并不缺少竞争对手。沈亦晨的自然光子学论文合作者尼克·哈里斯在波士顿创办的Lightmatter公司,也拿到了3300万美元风险投资。

除了技术和商业方面,Lightelligence与Lightmatter之间的竞争正在演变成两大投资集团之间的文化战,一个主要是中国的,另一个是美国的。随着国家之间的竞争紧张局势加剧——尤其是在人工智能技术开发方面——这似乎成为具有全球影响的更大竞赛的一部分。


References:

https://news.mit.edu/2021/lightelligence-accelerating-ai-speed-light-0602

https://www.technologyreview.com/2018/11/29/138899/making-ai-algorithms-crazy-fast-using-chips-powered-by-light/

https://xconomy.com/boston/2018/02/05/out-of-mit-a-21m-startup-battle-brews-over-next-gen-a-i-chips/

 

近期文章 

AI掀起韩国网红娱乐圈革命,你愿意接受虚拟偶像吗?



公众号后台回复“进群”备注“公司+称呼”
加入“人工智能读者俱乐部”

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存